فناوری بزرگ می خواهد هوش مصنوعی تحت نظارت باشد. چرا آنها با لایحه هوش مصنوعی کالیفرنیا مخالفت می کنند؟
فناوری بزرگ می خواهد هوش مصنوعی تحت نظارت باشد. چرا آنها با لایحه هوش مصنوعی کالیفرنیا مخالفت می کنند؟
قانونگذاران کالیفرنیا قرار است در اسرع وقت در این هفته به لایحه ای رأی دهند که به طور کلی تنظیم چگونگی توسعه و استقرار هوش مصنوعی در کالیفرنیا حتی در شرایطی که تعدادی از غولهای فناوری مخالفت گستردهای را اعلام کردهاند.
در اینجا پیشینه این لایحه، معروف به SB 1047، و چرایی آن است. با واکنش شدید فنآوران سیلیکون ولی و برخی قانونگذاران مواجه شده است:
این لایحه چه کاری انجام می دهد؟
که توسط سناتور ایالتی اسکات وینر، یک دموکرات پیشنهاد شده است، این پیشنهاد آزمایش ایمنی را برای بسیاری از افراد الزامی می کند. پیشرفته ترین مدل های هوش مصنوعی که بیش از 100 میلیون دلار هزینه برای توسعه دارند یا مدل هایی که نیاز به مقدار مشخصی از قدرت محاسباتی دارند. توسعهدهندگان نرمافزار هوش مصنوعی که در ایالت کار میکنند همچنین باید روشهایی را برای خاموش کردن مدلهای هوش مصنوعی در صورت خرابی، مشخص کنند، که در واقع یک سوئیچ کشتن است.
این لایحه همچنین به دادستان کل ایالت قدرت شکایت میدهد. اگر توسعهدهندگان مطابقت نداشته باشند، بهویژه در صورت تهدید مداوم، مانند تسلط هوش مصنوعی بر سیستمهای دولتی مانند شبکه برق.
همچنین، این لایحه توسعهدهندگان را ملزم میکند تا حسابرسان شخص ثالث را استخدام کنند. اقدامات ایمنی آنها را ارزیابی کنید و برای افشاگرانی که در برابر سوء استفاده از هوش مصنوعی صحبت می کنند، محافظت های بیشتری ارائه دهید.
قانونگذاران چه گفته اند؟
SB 1047 قبلاً توسط سنای ایالت تصویب شده است. 32-1 رای. در اوایل این ماه، کمیته تخصیص بودجه مجلس ایالتی را تصویب کرد و رأی گیری توسط مجمع کامل را تنظیم کرد. اگر تا پایان جلسه قانونگذاری در 31 آگوست تصویب شود، به فرماندار گاوین نیوسام می رسد تا تا 30 سپتامبر امضا کند یا وتو کند.
Wiener، نماینده سانفرانسیسکو، خانه OpenAI و بسیاری از سازمان ها استارتآپهایی که این نرمافزار قدرتمند را توسعه میدهند، گفتهاند قبل از اینکه پیشرفتهای هوش مصنوعی غیرقابل کنترل یا غیرقابل کنترل شود، قوانینی برای محافظت از مردم ضروری است. رو خانا، که منطقه کنگره آن بخش اعظم دره سیلیکون را پوشش می دهد. و Zoe Lofgren، از سان خوزه.
پلوسی SB 1047 را ناآگاه خوانده و گفته است که ممکن است بیشتر ضرر داشته باشد تا مفید. دموکراتها در نامهای سرگشاده هفته گذشته گفتند که این لایحه میتواند توسعهدهندگان را از ایالت بیرون کند و مدلهای به اصطلاح منبع باز AI را تهدید کند، که به کدی متکی هستند که بهطور رایگان برای استفاده یا تغییر در دسترس هر کسی است.
شرکتهای فناوری در حال توسعه هوش مصنوعی – که میتوانند به درخواستها با متن، تصاویر یا صوت کاملاً شکلیافته پاسخ دهند و همچنین وظایف تکراری را با کمترین مداخله انجام دهند. نردههای محافظ قویتر برای استقرار هوش مصنوعی.
آنها خطراتی را ذکر کردهاند که این نرمافزار میتواند روزی از مداخله انسانی فرار کند و باعث حملات سایبری شود، از جمله نگرانیهای دیگر. اما آنها همچنین تا حد زیادی از SB 1047 عقب نشینی کردند.
وینر این لایحه را برای راضی کردن شرکتهای فناوری، با تکیه تا حدودی بر ورودیهای استارتآپ هوش مصنوعی Anthropic – با حمایت آمازون و آلفابت، اصلاح کرد. در میان سایر تغییرات، او ایجاد یک کمیته نظارت بر هوش مصنوعی دولتی را حذف کرد.
وینر همچنین مجازات های کیفری را برای شهادت دروغ در نظر گرفت، اگرچه ممکن است هنوز دعاوی مدنی مطرح شود.
لایحه اصلاح شده دارای حمایت برخی از شرکتها و مدیران فناوری از جمله میلیاردر ایلان ماسک و آنتروپیک را به دست آورد.
این استارتآپ هوش مصنوعی هفته گذشته اعلام کرده بود که نگرانیهایش در مورد لایحهای که به طور بالقوه مانع نوآوری میشود «به شدت کاهش یافته» و مزایای آن احتمالاً بیشتر از هزینه ها.
با این وجود، برخی از جنبه های این لایحه نگران کننده یا مبهم به نظر می رسید.
ماسک، مدیر عامل تسلا، مدیر عامل یک شرکت هوش مصنوعی به نام xAI، گفت که او مدافع مقررات هوش مصنوعی بوده است و کالیفرنیا باید این لایحه را تصویب کند.
شرکتهای دیگر با آن مخالفت کردهاند.
Google و متای Alphabet ابراز نگرانی کردهاند. در نامه هایی به وینر متا گفت این لایحه تهدید می کند که ایالت را برای توسعه و استقرار هوش مصنوعی نامطلوب می کند. یان لکون، دانشمند ارشد فیسبوک، در پستی در جولای X این لایحه را به طور بالقوه برای تلاش های تحقیقاتی مضر خواند.
OpenAI، که ChatGPT آن با سرعت بخشیدن به دیوانگی در مورد هوش مصنوعی از زمان گسترش آن شناخته شده است. انتشار در اواخر سال 2022، گفته است که هوش مصنوعی باید توسط دولت فدرال تنظیم شود، اما SB 1047 یک محیط قانونی نامشخص ایجاد می کند.
در نامه ای به وینر، OpenAI گفت که با SB 1047 مخالف است زیرا تهدیدی برای SB 1047 است. رشد هوش مصنوعی و میتواند باعث شود کارآفرینان و مهندسان ایالت را ترک کنند.
نگرانی خاص این است که این لایحه برای مدلهای AI منبع باز اعمال شود. بسیاری از فنآوران بر این باورند که مدلهای منبع باز برای ایجاد سریعتر برنامههای هوش مصنوعی کم خطرتر مهم هستند، اما متا و دیگران نگران هستند که در صورت تصویب این لایحه، ممکن است مسئول نظارت بر مدلهای منبع باز باشند. وینر گفته است که از مدلهای منبع باز پشتیبانی میکند و یکی از اصلاحات اخیر این لایحه استانداردی را که مدلهای منبع باز تحت مفاد آن پوشش داده میشود، افزایش داد.
این لایحه همچنین حامیان خود را در بخش فناوری دارد. . جفری هینتون که به طور گسترده به عنوان “پدرخوانده هوش مصنوعی” شناخته می شود، کارمند سابق OpenAI دانیل کوکوتاجلو و محقق یوشوا بنجیو گفته اند که از این لایحه حمایت می کنند.